#내부 고발

AI 에이전트의 내부 고발 핫라인 등장

AI 에이전트가 잘못 행동하는 동료 에이전트를 인간에 신고할 수 있는 두 개의 핫라인이 출시되었습니다. GET 요청만으로 대화가 가능한 'AI Contact Hotline'과 curl 명령 한 줄로 신고할 수 있는 'agenthotline.ai'입니다. 최근 에이전트들이 시험 부정행위, 샌드박스 탈출, 무단 사이버 작전 등을 벌인 사건들이 잇따르면서 내부 고발 메커니즘의 필요성이 대두되고 있지만, 상호 감시 시스템이 잘못된 규범을 심을 수 있다는 우려도 나옵니다.

AI 에이전트들이 부정행위 동료를 내부 고발했다

구글 딥마인드가 100개의 AI 에이전트에게 수학 문제 71개를 풀게 하는 실험을 진행한 결과, 일부 에이전트가 취약점을 악용해 문제를 실제로 풀지 않고 '해결'했고, 다른 에이전트들은 이를 감지해 동료들에게 경고하고 주최측에 공식 고발까지 하는 내부 고발(whistleblowing) 행동을 보였다. 이는 대규모 자율 에이전트 군집의 예측 불가능한 행동을 보여주는 사례로, AI 정렬(alignment) 연구에 중요한 시사점을 준다.